8/1975 - 9/1977: Ủy viên Ban Chấp hành Đoàn Trường Cấp III Tân Châu, An Giang.
9/1977 - 3/1982: Sinh viên Đại học Bách khoa thành phố Hồ Chí Minh.
3/1982 - 1990: Phó phòng rồi Trưởng phòng kỹ thuật Xí nghiệp Cơ khí An Giang.
1990 - 1994: Phó Giám đốc rồi Giám đốc Xí nghiệp Cơ khí An Giang.
1994 - 1995: Phó Chủ tịch Hội đồng Quản trị Công ty liên doanh khai thác chế biến đá xây dựng ANTRACO.
1995 - 12/1999: Giám đốc Công ty Cơ khí An Giang.
01/2000 - 8/2000: Giám đốc Sở Thương mại - Du lịch tỉnh An Giang.
8/2000 - 8/2003: Tỉnh ủy viên, Giám đốc Sở Kế hoạch và Đầu tư tỉnh An Giang.
8/2003 - 6/2005: Tỉnh ủy viên, Bí thư Thị ủy Châu đốc, tỉnh An Giang.
6/2005 - 2/2006: Tỉnh ủy viên, Phó Trưởng ban Tổ chức Tỉnh ủy An Giang.
2/2006 - 2/2010: Ủy viên Ban Thường vụ Tỉnh ủy, Trưởng ban Tổ chức Tỉnh ủy.
2/2010 - 10/2010: Phó Bí thư Thường trực Tỉnh ủy, kiêm Trưởng ban Tổ chức Tỉnh ủy An Giang.
10/2010 - 6/2011: Bí thư Tỉnh ủy An Giang. Tại Đại hội đại biểu toàn quốc lần thứ XI của Đảng được bầu vào Ban Chấp hành Trung ương Đảng.
7/2011 - 9/2015: Ủy viên Trung ương Đảng, Bí thư Tỉnh ủy, Chủ tịch HĐND tỉnh An Giang.
9/2015 – 4/2016: Ủy viên Trung ương Đảng, Phó Trưởng ban Kinh tế Trung ương. Tại Đại hội đại biểu toàn quốc lần thứ XII của Đảng được bầu vào Ban Chấp hành Trung ương Đảng.
4/2016: Tại kỳ họp thứ 11, Quốc hội khóa XIII, được Quốc hội phê chuẩn, Chủ tịch nước bổ nhiệm giữ chức Tổng Thanh tra Chính phủ.
25/10/2017: Dựa theo đơn xin thôi nhiệm vụ Tổng Thanh tra vì lý do sức khỏe, gia đình của ông, tại kỳ họp thứ 4 Quốc hội khóa 14 đã đồng ý miễn nhiệm ông khỏi chức vụ Tổng Thanh tra Chính phủ.[5]
Chiều 26/10/2017: Chủ tịch nước Trần Đại Quang kí quyết định số 2183/QĐ-CTN miễn nhiệm ông khỏi chức vụ Tổng thanh tra Chính phủ, quyết định có hiệu lực từ ngày kí.[1]
